Crudup dilahirkan di Manhasset, New York merupakan cucu kepada Billy Gaither, iaitu seorang peguam yang dikenali di Florida.[1][2] Ibu bapanya bercerai ketika beliau kecil lagi dan kemudiannya merujuk semula dan bercerai buat kali kedua.[3] Crudup mempunyai dua orang abang: Tommy, penerbit eksekutif, dan Brooks, juga seorang penerbit. Apabila berusia kira-kira lapan tahun, beliau meninggalkan New York bersama-sama keluarganya untuk menetap di Texas dan kemudiannya di Florida. Beliau tamat pengajian di Sekolah Tinggi St. Thomas Aquinas di Fort Lauderdale, Florida (1986).

Crudup kemudiannya memasuki University of North Carolina di Chapel Hill dan meneruskan minat dalam lakonan di Lab!Theatre. Beliau kemudiannya menyambung pengajian di Tisch School of the Arts di Universiti New York, dan tamat pada tahun 1994. Setahun kemudian, beliau berlakon di teater berjudul Arcadia.